大模型 开发 开源 编程
总结出来的摘要,作为第一条 user 消息([Previous conversation summary]: ...)注入下一次的上下文,替换掉那一大坨旧对话。于是:最近 25 条保留原文细节,更早的以「高信息密度的摘要」形式存在。这本质是一种滚动摘要(rolling summary)——不是粗暴扔掉旧消息,而是把它们压成信息密度更高的形式留下来。
总结出来的摘要,作为第一条 user 消息([Previous conversation summary]: ...)注入下一次的上下文,替换掉那一大坨旧对话。于是:最近 25 条保留原文细节,更早的以「高信息密度的摘要」形式存在。这本质是一种滚动摘要(rolling summary)——不是粗暴扔掉旧消息,而是把它们压成信息密度更高的形式留下来。